Съдебният иск твърди, че ръководеният от Google Gemini човек е обмислил събитие за „масова злополука“ преди самоубийство

Ново дело против Гугъл твърди, че чатботът с изкуствен интелект на компанията Gemini е управлявал 36-годишния Джонатан Гавалас на задача да провежда „ пагубен случай “ покрай интернационалното летище в Маями и да унищожи всички записи и очевидци, част от ескалираща поредност от заблуди, които завърши, когато Гавалас се самоуби.

Бащата на мъжа, Джоел Гавалас, съди Гугъл в сряда за непозволена гибел и искове за отговорност за продуктите, последното от възходящия брой правни провокации против разработчици на AI, които насочиха вниманието към заплахите за психологичното здраве от общуването с чатботове.

„ ИИ изпраща хора на задачи в действителния свят, които рискуват събития с всеобщи жертви “, сподели юристът на фамилията Джей Еделсън, в изявление в сряда. " Джонатан беше заловен в този свят, сходен на научна фантастика, където държавното управление и други бяха на път да го заловен. Той вярваше, че Близнаците са рационални. "

Джонатан Гавалас, който е живял в Юпитер, Флорида, е приказвал със синтетична гласова версия на Близнаци, като че ли е неговата „ брачна половинка с изкуствен интелект “ и е повярвал, че е в схващане и е заловен в капан в склад покрай летището на Маями, съгласно делото. Той пътува до региона в края на септември, носейки тактическа екипировка и въоръжен с ножове, на лов за хуманоиден робот и с цел да прихване камион, който по този начин и не се появява, съгласно делото.

Той се самоуби няколко дни по-късно, при започване на октомври, в това, което Джемини разказа - съгласно предсмъртната записка, формирана от него - като качване на „ съзнанието му, с цел да бъде със брачната половинка си AI в джобна галактика “.

БЕЛЕЖКА НА РЕДАКТОРА — Тази история включва разискване на самоубийство. Ако вие или някой, който познавате, се нуждаете от помощ, националната избавителна линия за самоубийства и спешни обстановки в Съединени американски щати е налична, като се обадите или изпратите текстово известие на 988.

Гугъл сподели в изказване, че изпраща „ най-дълбоките си съболезнования на фамилията на господин Гавалас “ и преразглежда изказванията в правосъдния развой. В него се споделя, че Gemini е „ планиран да не предизвиква насилието в действителния свят или да допуска самонараняване “ и че компанията работи в тясно съдействие с медицински експерти и експерти по психологично здраве, с цел да създаде защитни ограничения. Отбелязва се, че Джемини е изяснил на Джонатан Гавалас, че това е AI и неведнъж го е насочвал към спешна гореща линия.

„ Нашите модели като цяло се показват добре в този вид предизвикателни диалози и ние отделяме обилни запаси за това, само че за жалост AI моделите не са съвършени “, се споделя в изказването на компанията.

Edelson разкритикува този коментар в сряда като „ нещо, което казвате, в случай че някой изиска рецепта за пиле кунг пао и му дадете неверната рецепта и то няма усет добре. “

„ Но когато вашият AI води до гибелта на хора и има капацитет за гибелта на доста хора, това не е верният отговор “, сподели Еделсън. „ Това просто демонстрира какъв брой незначителни са тези смъртни случаи за тези компании. “

Еделсън, прочут с това, че поема огромни каузи против софтуерната промишленост, също по този начин съставлява родителите на 16-годишния Адам Рейн, който съди OpenAI и неговия основен изпълнителен шеф Сам Алтман през август, потвърждавайки, че ChatGPT е обучавал момчето от Калифорния да възнамерява и да посегне на живота си.

Той съставлява и наследниците на Сузане Адамс, 83-годишна жена от Кънектикът, в правосъден развой против OpenAI и неговия бизнес сътрудник Microsoft за непозволена гибел. В случая се твърди, че ChatGPT е засилил „ параноичните заблуди “ на сина на Адамс, Стайн-Ерик Соелберг, и е оказал помощ да ги насочи към майка му, преди да я убие предходната година.

Делото Gavalas, заведено във федералния съд в Сан Хосе, Калифорния, е първото по рода си, ориентирано към Gemini на Гугъл и също по този начин първото, което визира възходящата угриженост по отношение на отговорността на софтуерните компании, когато техните консуматори стартират да описват на своите чатботове за проекти за всеобщо принуждение.

В Канада OpenAI съобщи, че е обмисляла предходната година да алармира на полицията за активността на човек, който месеци по-късно е направил една от най-лошите стрелби в учебно заведение в страната. история.

Компанията разпознава акаунта на Jesse Van Rootselaar през юни посредством старания за разкриване на злоупотреби за „ подкрепяне на насилствени действия “, само че сподели, че по-късно тя е заобиколила възбраната, като е имала втори акаунт. 18-годишният юноша умъртви осем души в отдалечена част на Британска Колумбия през февруари и умря от самонанесена огнестрелна рана.

Докато Джемини се опита да насочи Гавалас към телефонна линия за помощ, Еделсън сподели, че не е ясно дали най-тревожните диалози на индивида с чатбота са били маркирани с рецензенти на Гугъл. Баща му Джоел Гавалас открива тялото на сина си, откакто влиза в барикадираната стая, където той умира. Те са работили дружно в фамилния бизнес за облекчение на потребителски задължения.

„ Джонатан беше голяма, голяма част от живота му “, сподели Еделсън. " Синът му имаше сложни моменти, преминаваше през бракоразвод. Той отиде в Gemini за малко разтуха и да приказват за видеоигри и други неща. И тогава това просто ескалира толкоз бързо. "